异构云服务器设计时需要关注哪些方面

异构云服务器设计时需要关注以下方面：

• 异构资源快速获取：一键创建GPU、FPGA云服务器，方便用户快速获取超强计算能力，有助于客户一键部署深度学习环境、节省时间、易用高效，最终给用户带来高性价比。

• 资源动态调度：异构资源动态调度，按需分配，最大化提高异构资源的利用率，帮助客户完成更多的计算任务。异构云服务器可细分为不同的规格，根据物理硬件规格、网络吞吐能力、I/O吞吐能力，相应推出不同的规格，满足不同档次客户的需求。

• 高效计算，极致性能：目前公有云厂家推出的异构计算产品都是基于Nvidia最新的GPU和AMD最新的GPU架构开发，提供领先的GPU云服务器产品。异构服务器采用透传和虚拟化技术，用户独享或分时独享某一计算资源，可以极致发挥GPU、FPGA性能，单台服务器可以取代数百台通用CPU服务器来处理传统的HPC（High Performance Computing，高性能计算）和深度学习。

• 异构云服务器规格选型：云上异构服务器规格与底层硬件规格息息相关。目前业界公有云提供的计算型GPU实例，大多采用8块GPU物理服务器，预留一定比例的资源给宿主机。在GPU云服务器规格上，单GPU卡一般对应60GB内存空间。由于AI训练所需算力大都承载在GPU上，单GPU搭配7到8个CPU核心足够满足大部分应用需求。

• 性价比：这个主要根据所需要服务器性能选择一个价格合适的设备，尽以较低的价格选择一个合适的服务器设备，应该先满足性能要求，再选择合适的价格内的设备。